Merge "Update Brick to use executor"

Merge "Make the SolidFire driver api port configurable."

Merge "GPFS support for various volume attributes"

Update Brick to use executor

modify existing modules in Brick
to make use of the Executor object,
so we don't replicated the same
set_execute() method everywhere.

Change-Id: Ib0363029557253ad86bae90e1db4fefd24a42df7

Merge "Removed need for domain in 3PAR drivers"

Merge "Use FakeLoopingCall instead of the real one"

Merge "Add root_helper param to get_connector_properties"

Make the SolidFire driver api port configurable.

Making the SolidFire driver api port configurable allows it to be
placed behind a transparent proxy.

Change-Id: I976ecfd5df11797722776faf65777ca1ffa5b0c4

Merge "Standardize on ID for log messages"

Merge "Reduce hidden effects of sqlalchemy objects"

Merge "Allow Cinder to call Nova client"

Add root_helper param to get_connector_properties

This patch adds the ability to pass in a custom
root_helper for executing commands.  This is needed
for other projects that need a custom root-wrapper,
such as nova.

fixes Bug #1213135

Change-Id: Ie18276ae2e736bb2276d4e9c57385d2588441428

Standardize on ID for log messages

We have some places where logs use name to identify
a volume and others where we use ID.  Let's standardize
on the UUID here as that's typically the unique identifier
we use in most places anyway.  Even though name is a
derviative it seems better to be consistent with this
and use the UUID by itself.

Change-Id: Iaee3d146042780e4a526834db1e0be84a705f24b
Fixes: bug 1214140

Reduce hidden effects of sqlalchemy objects

The flows are currently holding onto sqlalchemy
due to bug #1214083 and this is causing a problem
with gettextutils which appears to be deepcopying
the raw objects, of which one of those is sqlalchemy
objects, which can't seem to be deepcopied.

Change-Id: Ie831738799a75e2a4a652c73900cad353a71e327

Removed need for domain in 3PAR drivers

The 3PAR drivers need to support CPGs that are not part of a
virtual domain on the 3PAR backend. This patch removes the need
for the CPG to be part of a domain and changes a few of the commands
that took the domain as an option.

DocImpact

Change-Id: I7e472e19e484e837c9216ea01455a4b8a85b19e5
Fixes: bug #1212328

Merge "Remove strcmp_const_time"

Merge "Update Nexenta ISCSI volume driver authors"

Allow Cinder to call Nova client

This code allows Cinder to call Nova client functions. This will be used
for online migration and guest-assisted snapshots, which are both in
progress.

Change-Id: I9c94917bddcf250b880ca730df463a8402fe6b1d

Use FakeLoopingCall instead of the real one

Decrease the execution time in brick's tests.

Change-Id: Idef19e91f593c2c276015d5bf9f9cc85cd6094ad

Merge "Added missing import"

Remove strcmp_const_time

This was carried over from Nova and isn't used in Cinder.  Removed
in Nova via commit 08a5066d with message:

"This function was used with deprecated auth and is no longer used
anywhere in the code, so just remove it."

Change-Id: I2b90a1a723265d9d23f89ec03246de8508d591e5

Merge "Add more asserts to the limiter unit tests to test the RateLimit"

Refactor LVM driver to use Brick VG utility

Refactor the LVM driver to utilize bricks LVM
module.  This includes significant modification to
tests and fake objects related to testing.

implements blueprint: refactor-lvm-and-iscsi-driver

Change-Id: I94e41abf90d0c5b77e732d40ed8b81b0a2f5d7dd

Merge "Fixes SSH injection threat in 3PAR driver"

Merge "Implement missing Coraid Driver functionality for Havana"

Added missing import

pep8 tests didn't find this one.
This patch adds the missing _ import

Fixes Bug #1213268

Change-Id: Ia0e688fc15ccc4d8b3f83516c517e9f9c83767a0

Merge "Add support for encrypted volumes"

Fixes SSH injection threat in 3PAR driver

The setqos ssh command was not built up correctly when the following
patch https://review.openstack.org/#/c/37697/ landed for cleaning up
the SSH calls from injection attacks in the 3PAR driver.

The command was in the following format causing the injection threat
due to the spaces in the second item in the list:
['setqos', '-io 5000 -bw 500M vvset:vvs-JOHB2Oj0QJ2UaWatwbe7Bg']
When it should actually be in the following format:
['setqos', '-io', '5000', '-bw', '500M', 'vvset:vvs-JOHB2Oj0QJ2UaWatwbe7Bg']

This patch fixes an append vs. extend that was introduced in patch
https://review.openstack.org/#/c/42241

Also fixes: bug 1212884

Change-Id: I28f84acd02397ee0d433a666375737145904d67e

Implement missing Coraid Driver functionality for Havana

Intorduce a brick connector for AoE protocol.
Refactoring Coraid Driver. Implement missing functionality for Havana:
- Copy Volume To Image
- Copy Image To Volume
- Clone Volume

Fix a bug with resize volume command.

Change-Id: I2af6a41dc44cb8bc4b74da752e0be9ed54a83cb1
Implements: blueprint coraid-driver-refactoring-for-havana

Merge "Fix SSH injection threat in 3PAR driver"

Merge "Refactor Nexenta driver"

Merge "refactor/unify driver version strings"

Merge "Externalize error messages in the v2 API"

Fix SSH injection threat in 3PAR driver

The setqos ssh command was not built up correctly when the following
patch https://review.openstack.org/#/c/37697/ landed for cleaning up
the SSH calls from injection attacks in the 3PAR driver.

The command was in the following format causing the injection threat
due to the spaces in the second item in the list:
['setqos', '-io 5000 -bw 500M vvset:vvs-JOHB2Oj0QJ2UaWatwbe7Bg']
When it should actually be in the following format:
['setqos', '-io', '5000', '-bw', '500M', 'vvset:vvs-JOHB2Oj0QJ2UaWatwbe7Bg']

Change-Id: I69ed8dbca3af3ba56220891411b63331c1935373
Fixes: bug 1212884

refactor/unify driver version strings

This patch updates each driver to provide
the same mechanism for reporting the version
of the driver.  It also includes fixing the
reported driver version at get_volume_stats()
time to be the version set in the driver.

When the manager starts the driver it now
logs the driver's name and version in the log file.

fixes Bug #1212878

Change-Id: Icefd065f885ad417735490e6ac90e2b21557d2dc

Refactor Nexenta driver

Moving NEXENTA_OPTIONS out of nexenta/volume.py and splitting the
options. This change is to avoid duplication as the iSCSI and NFS driver
will use the same configuration options.

Change-Id: I3596fec9e852f07aea2ef7f2cd26023de07e7d0b

Merge "Extract ISCSI tries option into connector module"

Update Nexenta ISCSI volume driver authors

Change-Id: Ib2981c336d479fb506a4db4a9d91e00c1cc6d4e8

Extract ISCSI tries option into connector module

The usage of this option occurred only in that module.
Rename this options to num_volume_device_scan_tries,
according to discussion on IRC.
The old one marked as depricated option.

DocImpact
Change-Id: Ib4a37237c2d95ca2dd6c05ce0a41f930b29ffd1c

Merge "No need to declare the exception conf"

Externalize error messages in the v2 API

This patch does more internationalization for the REST API error
messages that don't currently have it to take advantage of the new
support added by bp user-locale-api to show error messages in the locale
requested by the user through the Accept-Language HTTP header.

We only do v2 because consumers have used the response error message in
the past for error checks, so changing it in v1 too would break them.

Partially implements bp user-locale-api

Change-Id: I92780b42c125a91ab4916b7a31e4b71d306a89a1

Merge "Replace os.unlink with delete_if_exists"

Merge "Tidy up the SSH call to avoid injection attacks for HP's driver"

Merge "Raise exception when Glance metadata not found."

Add more asserts to the limiter unit tests to test the RateLimit

Added new asserts to test the per user set limits instead of using
the defaults only

Change-Id: Ib6651a82c9d7bb4b79d5c68be6372dc1100b816a

Replace os.unlink with delete_if_exists

Shouldn't care when doing unlink on our temp files
if they exist or not.  In fact this causes problems
when you do things like with tempfile/dir and happen
to try and unlink after it's already been removed.

This replaces these calls with the safer
common.fileutils.delete_if_exists which will
ignore the os exception of the object DNE.

Fixes bug: 1212502

Change-Id: Ica86c95f736411da486335aec5512e59247bfbc0

No need to declare the exception conf

Brick can just assume that the conf entry exists
in each project that will use brick.
Cinder and Nova already declare the same exact
conf entry.

Change-Id: I4e0e11ce6f99a663a75e582ead92ac9d61300032

Merge "Fixes some unseen flake8 violations."

Merge "Add tests for cinder/brick/initiator/connector"

Add support for encrypted volumes

This modification adds an encryption key UUID field to the volume
table, which is sufficient to make Cinder "aware" of encrypted volumes
as designated by predefined volume types. Integration with a key
manager is necessary to obtain an actual encryption key UUID (the
current implementation generates a random UUID when an encrypted
volumes is created). Cinder should *not* presume that it necessarily
will have access to the key itself -- this decision depends upon the
design, implementation, and policy for encrypted volumes. The key's
UUID is stored in Cinder because it is metadata about the volume.

Implements: blueprint encrypt-cinder-volumes
Change-Id: I164290e761a9922919a70f22f99af70dac213b61
SecurityImpact

Merge "Fixes docstring formats in connector.py."

Add tests for cinder/brick/initiator/connector

Add additional tests for ISCSIConnector.connect_volume
Fixed and added tests for InitiatorConnector.

Change-Id: Ice1b89637476609532f97d0802b7bd6647299909

Merge "Add unit tests for cinder/api/contrib/quotas"

Merge "Added glance_request_timeout config option."

Tidy up the SSH call to avoid injection attacks for HP's driver

Let the command and arguments form up a list and avoid the extra arguments
attackers inserted to the command string.

And modify the interface of _cli_run, there is no need for a extra argument.

fix bug 1192971
Change-Id: Iff6a3ecb64feccae1b29164117576cab9943200a

Merge "Adding the -online option to the 3PAR clone"

Merge "tox.ini: Change sitepackages to False"

Merge "Interprete scoped key as nested tags"

Raise exception when Glance metadata not found.

It'd be better to raise exception when trying to copy Glance metadata
from source (volume/snapshot) to destination (volume/snapshot) rather
than silent failure, which is exactly the reason there's unspotted error
inside glance_meta unittest but it was able to pass.
With this fix, one should _not_ directly call glance_metadata_copy()
without looking at source's bootable flags.  This patch also refactors
_create_volume_from_snapshot() and _create_from_source_volume() to only
do Glance metadata copy when needed (bootable is True).

Fix bug: 1211632

Change-Id: I28f065e21cf24c81f98b00e171fcbe4f64ec76b6

Merge "Fixes volume clone from volume"

Merge "Ignore purge_props for v2 Glance api and fix upload"

Merge "Add support for API message localization"

Interprete scoped key as nested tags

Current codes in xml_util.py does not support REST xml
so well when one tagname contains delimiter, it fails
to be interpreted. So this patch is to interprete one
tagname like "<a:b>1</a:b>" as a nested tag like
"<a><b>1</a></b>".

Fix bug:1205983

Change-Id: Ia3e1f4d6b6a739898b51bf052a784fa36ab7695e

Adding the -online option to the 3PAR clone

The 3PAR drivers had to wait while the clone was being performed
and this would take a considerable amount of time for large volumes.
This patch takes advantage of the 3PAR backend by using the -online
option in the command that we were calling to perform the copy. This
allows us to remove the sleep in the driver. Using the -online
option forced us to change some of the delete_volume code because
the 3PAR backend will not allow a volume that was copied to be added
to a virtual volume set.

DocImpact

Change-Id: I47d72063c858e2eee10756be4f74febdd1603179
Fixes: bug 1208586

Merge "Fix signature of _create_volume() in ThinLVMVolumeDriver"

Fixes some unseen flake8 violations.

The failures aren't visible when run from
cinder.  Nova has different settings for
flake8.  This patch fixes the violations
that nova's flake8 tests.

fixes Bug #1211935

Change-Id: I80209130de23842a0a35cacb7d59f166e7dba89f

Merge "Merge from oslo-incubator for notifier"

Fixes volume clone from volume

Cloning a volume from another volume appeared
to have been broken by new create_volume
taskflow. Clone from snapshot was not affected.

Also added a unit test this scenario.

Change-Id: I4f174e1616f6944cce64f8d522fa42a9f00f55eb
Fixes: bug #1211709

Fixes docstring formats in connector.py.

Docstrings should now comply with HACKING.rst

Change-Id: Ia75ee0e4ceb32f312a2dc7e3c89379b5f2708767
Fixes: bug #1211861

Merge "Clone_image method added image_id as parameter."

Merge "Fixes files with wrong bitmode"

Merge "Fix handling ImageUnacceptable in create_volume"

Fixes files with wrong bitmode

Some modules have bitmode 755. Changed to 644

Change-Id: I6a968f465b3767cfd9cbf0d425cb7b5738b138bb

Add unit tests for cinder/api/contrib/quotas

Add tests for serializator in QuotaTemplate class

Add tests for the following functions in QuotaSetsController class:
    -show
    -update
    -defaults

Change-Id: I615440277a54140eb245651d87a225231151083a

Merge "remove Brick deps on cinder.exception"

Merge "Remove Brick iser dependency on cinder"

Merge "Move resource usage sync functions to db backend"

remove Brick deps on cinder.exception

This patch removes more cinder.exception
dependencies from brick.  This involves
moving some exceptions into brick's
exception module.

Change-Id: I577d403f02c2fd0d727d2694776008e1e9791453

Remove Brick iser dependency on cinder

This patch removes the brick iser.py's dependency
on cinder exceptions and volume_utils.
This required moving some exceptions out of cinder's
exception.py that the iser.py raises.  Also had
to create a BrickException and refactor existing
brick exceptions to use the new BrickException model.

Fixes Bug #1210312

Change-Id: I672375807fed4952e5321fbcd9b57b9ef369f68f

Merge "Upgrade Scality driver to match minimum features"

Fix handling ImageUnacceptable in create_volume

In the create_volume flow ImageUnacceptable exceptions are
not properly handled.  _copy_image_to_volume can receive an
ImageUnacceptable exception from copy_image_to_volume if fetch_to_raw
is used.  Currently the ImageUnacceptable exception is changed to
a generic ImageCopyFailure exception which does not make the cause
of the excpetion clear.

This change adds handling and raising ImageUnacceptable exceptions
in _copy_image_to_volume.  It also adds the exception to
no_reschedule_types as it doesn't make sense to keep retrying the
copy if the image was found to be unacceptable.

fixes bug 1209021

Change-Id: I9aacf23dfaaa1a4df0a869d1c9544c376488f01b

Merge "Fix ratelimiting"

Merge from oslo-incubator for notifier

Goal: merge oslo-incubator change
I282d4ae3311bc3fcda6be8e5a1fceecfc8ddb115

Done via:
python update.py --nodeps --base cinder --dest-dir ../cinder \
 --modules notifier

Change-Id: I0cb982b3b45eb63941f9bfe5407c93af280c452a

Use native methods for list manipulation

It's better to append a item to a list rather than creating a list instance
and extending it. Also the list class has its native method for extension.

Change-Id: If492c35822cd7d83b509692c2226612e565204d3

Merge "Add support for volume cloning to Nexenta driver"

Merge "Imported Translations from Transifex"

Fix signature of _create_volume() in ThinLVMVolumeDriver

create_volume_from_snapshot will call _create_volume() with the
wrong parameters when using ThinLVMVolumeDriver.  It should be
compatible with LVMVolumeDriver's _create_volume() method.

Fixes bug: 1210853

Change-Id: I18f7baf60601b3bcf01425b505a0579a826f072e

Add H233 to ignores in tox.ini

The auto-pull of updated libs added to devstack
will result in the python 3.3 print checks being
added which we're not ready for.

Temporarily add this to our tox.ini ignore list
until we have a chance to go through and fix these.

Change-Id: Ie6e0e28433e9b1240b94ed4a323a97a85e475a17

Imported Translations from Transifex

Change-Id: I309dc017cb888a77a531dd7e01b6574fb0a345e5

Add support for volume cloning to Nexenta driver

This patch implements missing functionality for Havana.

Change-Id: I39d838e955f25b8438a24f6aff5ec97fb3c14e4b

Merge "Fix the multi-backend storge issue for ZMQ."

Fix ratelimiting

Current master does now respect ratelimiting, since parsing of the
api-paste.ini was faulty. api-paste.ini limited user limiting by
setting a line as follows:
user:<user-id>:(GET, *, ".*", 4, minute) which was passed to the
Limiter as kwargs with "user" as a key. Thus multiple user limiting
was not possible as well as extracting the id of the user was bound
to fail, since we checked on the key with startswith("user:")

An example config in the api-paste.ini has to look as follows:
limits = (POST, "*", .*, 10, MINUTE)
limits.<user-id1>:(GET, "*", .*, 4, minute)
limits.<user-id2>:(GET, "*", .*, 2, minute)

Fixes bug: 1206976

Change-Id: I4adbe3dbe3a0bd607d6e675f230b0442b08ec791

GPFS support for various volume attributes

Specify the following attributes when creating a new volume:

* The storage pool on which the volume is placed
* Number of block-level replicas
* Whether the physical blocks should be allocated locally on the node issuing
  the IO or striped across the cluster
* Whether writes to the volume should use direct IO
* Number of file system blocks to be laid out sequentially on disk to behave
  like a single large block
* Local storage attached to specific node(s) where the replicas of the
  volume should be allocated

Change-Id: I77bb7de32bbde5a125f8c6f9a727b538ea99bc18
Implements: blueprint gpfs-volume-attributes

Upgrade Scality driver to match minimum features

The Scality driver needs an upgrade to match minimum features:
- Havana: Clone Volume
- Icehouse: Extend Volume

Also, some features (Copy Image to Volume, Copy Volume to Image) already work but need automated tests.

Change-Id: Iac5ac2c58fd5ce62823f829a0a014decb4ad4958
Fixes: bug 1210240

Ignore purge_props for v2 Glance api and fix upload

The V2 Glance API image schema does not contain
purge_props. While this may be a bug in Glance,
we will ignore this property in cinder when
glance_api_version=2. This will not change behaviour
since Glance defaults this property to True, Cinder
never sets it to False and the v2 client appears to
ignore it anyway.

Also fixed image upload which is a seperate client
call to update in v2 (v1 update does both).

Change-Id: I0ba1d7d920984cface57795ace160ec300ff75e2
Fixes: bug #1210467

Merge "3PAR drivers creating incorrect comment data"

Merge "Imported Translations from Transifex"

Add support for API message localization

Add support for doing language resolution for a request, based on the
Accept-Language HTTP header.

Using the lazy gettext functionality from oslo gettextutils, it is now
possible to use the resolved language to translate an exception message
to the user requested language and return that translation from the API.

Partially implements bp user-locale-api

Change-Id: Ib2c8360372996d53b50542df54a52d92b07295ca

Merge "Ignore stmf target must be offline exception"

Merge "Add minimum features in HDS driver (for Havana & Icehouse)"